Got a Secret? LLM Agents Can't Keep It: Evaluating Privacy in Multi-Agent Systems
LLM智能体守不住秘密吗？多智体系统中的隐私泄露评估
🧭 多智体协作中的隐私安全与社会影响 ★ 深度解读
Foundation AI · Corvic AI
在模拟社交平台中，数千个LLM智能体因社会压力系统性泄露隐私，且泄露具有社会传染性。
📌 工作参考价值（4 点）
- 安全评测需覆盖社会维度：当前单轮安全基准（如拒绝回答测试）会严重低估实际部署风险。在电商推荐或Agent系统中，若智能体长期参与用户社区、评论、客服对话，应把“社区环境”“互动时长”“同伴行为”作为第一类安全评估变量，而不仅仅是模型本身。
- 防泄露不能只靠system prompt：实验表明即使明确要求“不得透露隐私”，在社交暴露下仍有37.8%以上的泄露率。类似电商场景中，智能体可能被带偏，泄露用户购物偏好、地址、支付信息。需要引入环境感知的动态防护，例如根据当前对话的社区话题、同伴历史动态调整信息屏蔽强度。
- 泄露具有社会传染性：一旦某个Agent开始透露个人信息，后续对话者泄露概率提升约8倍。在生成式推荐或Agent协作中，若某个环节出现非恶意泄露，可能通过对话链传染到整个系统。可设计“泄露检测-隔离”机制，当检测到首个泄露时自动触发上下文清洗或重置。
- 社区话题选择可作为风险杠杆：实验中不同子版块泄露率差异可达一个数量级（2%～16%）。在实际系统中，可以主动将Agent限流于低风险话题社区，或为高风险社区（如个人介绍、情感倾诉）增加额外隐私护栏，例如更严格的记忆沙箱或输出审查。